Tên gọi 'Karpetes' có thể có gốc rễ xa xôi từ gốc từ trong tiếng Tiền Ấn-Âu *sker-/*ker-, mà từ đó có từ trong tiếng Albania karpë "đá/núi đá", có lẽ có cùng nguồn gốc từ tiếng Dacia nghĩa là 'núi', đá hay gồ ghề (so sánh với tiếng Bắc Âu cổ harfr "gay go", tiếng Đức vùng thấp Trung cổ shcarf "mảnh sành", tiếng Litva kar~pas "cắt, chặt, vết khía", tiếng Latvia cìrpt "cắt, chặt"). Từ trong tiếng Ba Lan cổ karpa nghĩa là "những gì không đều xù xì, vật cản ngầm dưới nước/đá, rễ hoặc thân cây xù xì". Từ phổ biến hơn skarpa nghĩa là vách đá sắc nhọn hay địa hình thẳng đứng khác. Mặt khác, tên gọi cũng có thể đến từ tiếng Ấn-Âu *kwerp "xoay hướng", tương tự như tiếng Anh cổ hweorfan "xoay hướng, thay đổi" và tiếng Hy Lạp karpós "cổ tay", có lẽ là chỉ tới cách thức mà dãy núi này uốn cong hay xoay hướng thành hình chữ L[5].

Trong các tài liệu La Mã muộn, dãy núi Đông Karpat được nói tới như là Montes Sarmatici. Dãy núi Tây Karpat được gọi là Carpates. Tên gọi Carpates lần đầu tiên được ghi chép trong cuốn Geographia của Ptolemy viết vào thế kỷ 2. Vào khoảng thập niên 310, dãy núi Karpat được hoàng đế La Mã Valerius Licinianus Licinius nói tới như là Montes Serrorum.

Tên gọi của Carpi, một bộ lạc Dacia có thể có nguồn gốc từ tên gọi của dãy núi Karpat. Tên gọi này được ghi lại trong các tài liệu La Mã (như của Zosimus) như là những người dân sống cho tới năm 381 tại các sườn núi Đông Karpat. Như một lựa chọn khác thì tên gọi dãy núi cũng có thể bắt nguồn từ tên gọi của bộ lạc Dacia này.

Trong Hungarian XIII- i, các tài liệu Hungary thế kỷ 14 gọi tên dãy núi này là Thorchal, Tarczal hay ít phổ biến hơn là Montes Nivium.

Trong xaga vùng Scandinavia là Hervarar saga, trong đó người ta miêu tả các truyền thuyết Đức cổ đại về các trận chiến giữa người Goth và người Hung, tên gọi Karpates xuất hiện trong dạng Đức có thể đoán trước như là Harvaða fjöllum (xem quy luật Grimm).